人工智能产生自我意识，只是时间问题 | 江波
十八世纪英国发生了工业革命，自此人类开始在工业化的道路上狂奔，不停的生产机器，机器也变得越来越先进。AlphaGo等“深度学习”智能机器人的出现，让人们开始害怕过于智能的机器会对人类产生威胁。人工智能究竟在未来扮演什么角色，科幻电影中那些黑暗的未来会否发生，人类未来该怎么和机器共存？
江波
科幻作家
以下内容为江波演讲实录：
我今天演讲的题目叫赋机器以文明，科幻一点讲一下关于人工智能的自我意识问题。
在科幻电影中，人工智能是一个很大的母题，经常会有表现人工智能的电影，比如说《I Robot》 、《黑客帝国》还有机械姬。
人工智能往往会扮演一个什么样的角色，它会扮演一个反叛者的角色，它会对人类做出伤害，做出一些不好的事情。那么从现实的角度来说，是否这样的事情会发生呢？
生物智能是我们目前已知的唯一产生了自我意识的智能，所以它是一个人工智能的唯一的参考。在生物智能这个环节，我们用人类和蚂蚁来做对比，人类是智能生物的代表，蚂蚁是本能的生物。所谓的智能，无非就是我们用各种各样的方法想一想，然后设计出一个方法来适应环境。
所谓本能呢？就是生来就具有的一种能力，蚂蚁天生就能够筑巢，就能够觅食，诸如此类。为什么要把这人类和蚂蚁放在一起来讲，因为在地球上，这两种都是同样成功的生物。
如果把所有人类的重量和所有蚂蚁的重量相比较，在天平的两端，蚂蚁和人类的总质量是差不多的。所以从这个意义上说，我们把他们当做两种同样成功的生物来比较。
人类在分类学上属于人科，蚂蚁属于蚁科，在门科目纲属种这个分类上面我们用同样的等级来衡量它。得出一个什么样的结论呢？人科有几种生物，人科、人属、人种，事实上只有一种。蚂蚁有一万一千七百余种，从这个意义上来说智能相对于本能，能带给生物的好处是什么？以一敌万。
我用一种智能生物通过行为方式的调整，适应地球表面上的任何地形地貌，但蚂蚁为了做到这件事情，它用了一万一千七百多种，所以这就是智能带给生物的好处。它用单一的个体，适应不同的地形地貌。
因为我们的主题是自我意识，讲了生物的本能和智能之后，我们来看一看生物的自我意识怎么产生的。
生物形形色色、各种各样，怎么样去衡量它的自我意识，生物学家设计了这么一个实验，叫镜子实验。所谓的镜子实验也很简单，就是让这个生物照镜子，如果它能够辨认出镜子中的影像是自己，就通过了镜子测试。我们认为它具有自我意识。
这个实验本身它有很大的模糊性，因为它不是一个非常客观标准的测试，但是作为我们目前研究自我意识的一个参考，认为它可以代表自我意识的存在，那我们就来看看，在这个镜子实验当中，有什么样的生物能够通过呢？
上图中红线上方的生物都是能够通过镜子测试的，包括各种各样的黑猩猩、鲸鱼、大象诸如此类。红线下方的生物，通常来说我们认为它没有自我意识。这些生物很简单。
比如说这个图片上面，红线划过的两种生物。一种是猴子，一种是银背大猩猩，为什么把它拿出来呢？因为这两种生物在亲缘关系上和人类比较接近，所以我们来看一看，它们的镜子实验是一个什么结果。
这是银背大猩猩，非常强壮，当看到镜子中的自己认为是另一个对手，就直接撞上去，所以它失败了。
这是一只猴子，如果你仔细观察这只猴子的话，你可以看到它从镜像中发现了脸上的红点，也就是说它已经通过了镜子测试。我们刚才提到猴子是没有自我意识，不能通过镜子测试的，它的确通过了，它怎么通过的？
这只猴子它是2015年中科院神经科学研究所的科学家最新的研究成果，他们通过某些程度的训练让原本不具有自我意识的猴子，最后产生一定的自我意识，能够辨认出镜子中的自己。
这给我们很有力的启示，什么启示？ 自我意识的边界具有一定模糊性，也就是说并不存在一个非黑即白的世界。从没有自我意识跨入到自我意识，当中并没有一条截然的边界。更有可能的情形是，这个过渡是连续而模糊的。这一点非常重要。
看完了自我意识在生物中的存在，我们来看一看自我意识的来源，到底在生物中怎么来的。首先回顾一下，我们刚才提到了生物的自我意识有两点。第一点广泛存在，它存在在黑猩猩当中，黑猩猩是哺乳动物，存在在鲸鱼、海豚等海洋哺乳动物。还有大象，距离远一点的是喜鹊，喜鹊是鸭科动物，其他的鸭科动物也能通过。
甚至是章鱼也具有一定的自我意识，章鱼属于软体动物，距离人类非常非常遥远。如果章鱼都存在自我意识，能够通过镜子实验的话，那表明这种自我意识的存在，在生物界中是非常广泛的。
第二点就是边界模糊，猴子通过镜子实验的这个启示，告诉我们原本不能通过镜子测试的经过训练之后可以通过。这很明白无误地告诉我们镜子测试本身是一个模糊的自我意识的存在。
通过这两点，我们得到一个什么样的结论呢？得到的结论是自我意识并不是一个很神秘的东西。它是人的高级智能的一种表现。当人或者说生物智能复杂到一定程度的时候，就能够自动的产生自我意识。
这个结论，在目前的认识当中，总觉得自我意识是一个神秘的存在，尤其对于人工智能来说，大家认为某一天产生的时候就是人类灭亡之日。但实际上我们仔细考虑生物的情况并不是这样。它是一个自然而然发展的过程，并不是特别跳跃出来的。
在讲生物自我意识的时候，没有提到一个最重要的点，学习。生物的自我意识是怎么产生的，学习是它的唯一途径。因为生物受到自己的局限性，它获取智能的唯一方式就是学习。
讲完了对生物智能的分析后，进入人工智能的环节。首先提一个名词——拟智能。什么是拟智能？先来看几张照片
这是Google的自动驾驶汽车，工业机器人，然后是亚马逊的无人机未来小冰。这些我们都可以称为拟智能。为了定义拟智能，我们首先来定义什么是人工智能的学习。
所谓人工智能的学习，就是通过对外界环境的认识，来改变自己的内在逻辑。注意是内在逻辑，如果这个智能体的设计当中本身有一个变量是二，通过外界的刺激之后，我认识到这个变量实际是六。把二改成六不叫逻辑变换，而叫变量的变换。
逻辑变换就是在我的意识当中，二乘二等于四。如果这个环境很特别，二乘二等于六，通过环境刺激到了你的神经系统，最后你接受了，这个过程就叫学习，对机器来说就是它的学习。
所以有了对学习的定义之后，我们可以定义一下拟智能。所谓的拟智能，就是所有不通过学习而得来的智能。这些智能通过预先编制的程序锁定了它的智能行为是什么。
虽然它可以很复杂，很强大，但因为它不通过自主学习，所以不会产生自我意识。这就是结论。拟智能很复杂，但是不会产生自我意识。就是因为它不是通过学习得来。不会学习的人是没前途的，对智能也一样。
生活中广泛存在的智能，把它称为拟智能。如果拟智能不能产生自我意识，它就不是我们担心的对象。那我们就要讨论一下，什么是未来充满可能性的。
未来可能性第一种是神经网络。2014年初的时候，Google以四亿美元的价格收购了一家，叫做Deepmind的公司。这是一家做算法的公司。这个算法很特别，当然也很复杂。我在这里可以大概描述一下它是做什么的。
这个算法的任务是玩游戏，什么样的游戏？一个大屏幕，屏幕的上方有方块，这些方块会不断的下落。这个算法控制的也是一个方块，这个方块在屏幕的下方前后左右可以移动。游戏的目的是什么，就是延长生存的时间。在这个算法中，如果上方出现了一个方块，我们叫输入，引起了我下方一个动作之后，如果游戏失败了，这个神经网络，就能够记住这一点，在游戏当中，它就会尽量避免这样的动作。
同样一个输入，引起了动作之后，游戏延长了时间，它就获得了奖励。在下一轮游戏中，它就有可能采用更多同样的动作。通过这样的训练之后，实际上就是一个学习的过程，所以它是对我们神经系统一个很好的模拟，用分层的结构来模拟。
既然它已经能够自主的进行学习，就在深度学习的过程中，没有人预先告诉它，该往哪里走，它只是通过不断地挫折、不断地试错，最后得到了一个自己的最佳策略。
未来另一种可能性，人脑芯片，这个会更复杂，我就不详细说了。大概的意思就是根据我们的神经元结构，组合成大脑皮层，这是一个什么样的过程，我们在芯片上，用物理的芯片把它实现了。
它达到什么样的结果呢？用五十亿个晶体管，大概模拟了一百万个神经元，其中有2.56亿个突出，所谓突出就是神经元之间的接触。这样的人脑芯片，已经是突破性的进展。但是还存在两个问题。
第一：规模。一百万个神经元，看起来、听起来是很多，但对比下面这个数字一百四十亿神经元是人脑的神经元数目，同样人脑的突出以万亿的突出来计，这样比较一下的话，这个规模实际上只有人脑的万分之一。
所以从规模上来说，它还差的远。但是规模未必是个问题，因为就规模来说，可以通过大规模的并行计算，就像现在有的大规模的网络一样，用大规模的并行计算来克服它，所以规模问题一旦提出来，未来肯定可以解决。
还有第二个问题：算法。目前的编程还是像原有的编程方法一样，预先编制好它的行为方式，但是这块芯片，它需要另一种方式。跟我们认识世界同样的方式，生物的方式，也就是说通过外界刺激，不断的修正自己的内在逻辑来编程。目前还没有很好的方法，所以从这两个方面说，还有很长的路要走。但是既然已经在路上，我们可以预期终究会变得比较成熟。
再来看一个比较有趣的事情叫未来人工智能，这个蓝色箭头表示目前人工智能复杂度所能达到的程度，这个地方就会带来一个问题，一旦人工智能和人类可以并存在一个世界上的时候，就会面临一个问题，什么样的人工智能，可以融入人类社会，这里就牵扯到图灵测试。
图灵测试是这样的，让一台机器和人对话，如果30%的人认为，它是一个人那这台机器就是人。它实际上是有两端的。目前都认为人工智能的产生是单向性的，它一旦跨过一个界限以后，我们认为它达到了一定的复杂度，就变成人了。
但实际上并不是这样，在将来的社会中，如果一旦人工智能和人类并存，是否它是人，这个事情就交给人来判断。打个比方美国的陪审团制度，一个人杀了人，他是否犯罪，这件事情并不由这个行为本身说了算，他是由陪审团来决定的，是有罪还是无罪，所以图灵测试将来的拓展就会变成很有趣的社会学问题。
什么样的机器可以被称为人，我相信这个将来会变成一个很有趣的话题，把人的判定交给人。
现在总结一下，所说的整个话题当中的重点内容。首先第一点，自我意识并不神秘，它是智能复杂到一定程度之后的自然产物，它是学习的产物。第二点：拟智能，我们日常生活中所运用的智能，把它称之为拟智能，拟智能不通过学习产生，不用担心它有自我意识，但它是人类很好的智能工具，很好的帮手。
最后一项，就是深度学习的人工智能，它是非常棒的，它有产生自我意识的潜力。我们的结论是什么呢？人工智能的自我意识，只是一个时间问题。那问题又回来了，科幻电影当中，带给我们的那些灰暗的现实会有一天变成真的吗？我们该怎么办呢？
让我们把时间推回到十八世纪，从十八世纪工业革命后，人类在做一件什么事情，人类在工业化的道路上狂奔，从来没有停止过，我们不断的发明各种各样的机器来充实我们的文明， 这个过程可以把它称为赋文明予机器，我们不断用机器填充我们的文明。
拥有自我意识的机器，必然是能够学习的机器。因为我们已经得到了结论，学习是自我意识的源泉，如果这样的话，那就意味着，这个具有自我意识的机器是可以接受教育的，它就像一个孩子，像一张白纸。如果你教给它的是暴力、战争、侵害，它学会的也就是暴力、战争、侵害。但是如果你教给它是仁慈、和平、爱，那么它学会的也是仁慈、和平、爱。
所以在这一点我们还有机会，赋机器予文明，可以通过一些方法、方式来规范引导将要生产的人工智能，从而避免科幻电影中的灰暗未来。赋机器予文明，当人工智能产生的时候，那将是我们人类最后的使命。谢谢大家。
SELF讲坛全称“SELF格致论道”讲坛，是中国科学院全力推出的公益讲坛，由中国科学院计算机网络信息中心和中国科学院科学传播局联合主办。SELF是 Science, Education, Life, Future的缩写，旨在以“格物致知”的精神探讨科技、教育、生活、未来的发展，尝试打破过去纯粹以“知识传播”为主的科普形式，专注于思想的传播，力图从思想的源头上促进公众参与科学的积极性。关注微信公众号SELFtalks获取更多信息